Фалшиви новини Създателите на YouTube се насочват към чернокожи знаменитости с дезинформация, генерирана от AI

Видеоклипове в YouTube, употребяващи композиция от генерирани от изкуствен интелект и манипулирани медии за основаване на подправено наличие, наводниха платформата с непристойна дезинформация за десетки чернокожи известни персони, в това число рапъра и изпълнителен шеф на звукозаписа Шон “Диди ” Комбс, телевизионния водещ Стив Харви, артиста Дензъл Уошингтън и Бишоп Т. Д. Джейкс. от скорошни правосъдни каузи за обезчестяване и полов трафик против Комбс, в това число нашумял случай, организиран сред него и изпълнителката Касандра „ Каси “ Вентура. Други видеоклипове замесват фигури като Джейкс в обвиняванията против Комбс без доказателства и употребяват манипулирани медии, с цел да изобразят звезди, участващи в непристойни дейности и пресилени прояви на страсти във видео миниатюри.

NBC News прегледа дузина канали в YouTube, публикуващи нещо, което наподобява е генерирано от AI подправено новинарско наличие за чернокожи звезди. Много от прегледаните видеоклипове са стръв за кликване, което значи, че заглавията и миниатюрите на видеоклипове в YouTube демонстрират разкази или изказвания, които не са в самите видеоклипове. Някои от видеоклиповете имат милиони гледания, а междинният брой комбинирани гледания за всеки канал е 21 милиона.

В изказване за NBC News, представител на YouTube сподели, че платформата е прегледала и подхванала редица дейности по няколко от каналите, за които е алармирала, „ в това число преустановяване на три канала за нарушение на нашите Условия за Услуга, унищожаване на спомагателни канали от нашата стратегия за обезпечаване на доходи и унищожаване на редица видеоклипове и миниатюри. “

„ Правилата на общността на YouTube дефинират разпоредбите за това какво е и какво не е разрешено на нашата платформа, в това число наличие, което съдържа целеустремен тормоз или нежелано сексуализиране “, се споделя в изказването.

Съдържанието процъфтява преди и след дейностите на YouTube. Анджелика Нванду, създател и основен изпълнителен шеф на The Shade Room - един от най-големите онлайн източници на вести за черна просвета, с над 28 милиона почитатели в Instagram - сподели, че казусът с генерираното от AI и друго подправено новинарско наличие за чернокожи звезди се е трансформирал в проблем за нея екип от предходната година.

„ Виждали сме тези страници, които изскачат в YouTube или TikTok и ще имат генерирана от AI фотография на Риана, плачеща за A$AP [Rocky] отивам в пандиза и това е изцяло подправено “, сподели Нванду. „ Нашата аудитория ще изпрати DM и ще каже „ Защо не публикувате тази вест? “ „ Защо не отразявате тази история? “, Защото има вяра на тези страници. “

Видеоклиповете за чернокожи звезди постоянно са свързани с действителни, шокиращи и скандални събития в новините. Чрез ремиксиране на същински вести с погрешна информация и изказвания, видеоклиповете могат бързо да придобият известност, като наподобява, че дават нова информация за тематики, които към този момент притеглят вниманието.

Потопът от манипулирано и генерирано от изкуствен интелект подправено наличие в YouTube съответствува с набезите на компанията-майка Гугъл в генеративната AI технология, както и с възходящите страхове по отношение на напъните за дезинформация, ориентирани към изборите през 2024 година по целия свят. YouTube разгласи през ноември, че възнамерява да наложи нова политика, изискваща етикети за синтетични и манипулирани медии във видеоклипове. Тази система към момента не е въведена.

Може да е мъчно да се направи разлика сред медии, генерирани от AI, и медии, които се манипулират без потреблението на AI (понякога наричани „ евтини имитации “). Един от дузината канали, прегледани от NBC News, отговори на искане за коментар. В имейл човек, представляващ канала, който се концентрира върху вести за звезди, сподели, че употребява „ технология за превръщане на текст в диалект с изкуствен интелект “ за някои видеоклипове, само че отхвърли да употребява AI принадлежности за скриптовете, които се четат на глас, или миниатюрите. Смята се, че генерираната от AI гласова технология е била употребена във подправено автоматизирано позвъняване на президента Джо Байдън, което сподели на демократите от Ню Хемпшир да не гласоподават на първичните избори през януари.

Адвокат, представляващ Джейкс, проповедникът на мегацърквата в Тексас, който беше задачата на някои от видеоклиповете, сподели пред NBC News, че Джейкс е единствено последният изтъкнат човек, който е бил обект на подправена и погрешна информация в YouTube. Джейкс призна вирусното подправено наличие в проповед предишния месец, като сподели: „ Всички вие, които очаквате да обърна внимание на неистина, можете да излезете. “

Търсене в YouTube за „ TD Jakes ” демонстрира подправено наличие, което наподобява употребява генеративни AI принадлежности за озвучаване в първите пет резултата от търсенето. Експерт по разкриване на дълбоки имитации, Siwei Lyu, професор по компютърни науки и инженерство в университета в Бъфало, пусна аудиото от два от видеоклиповете в резултатите от търсенето за Jakes посредством модел на AI Speech Classifier с отворен код, създаден от откриватели на AI в университета на Сеул в Южна Корея. Моделът откри, че аудиото от едно видео е с повече от 87% възможност да е генерирано от AI и че аудиото във второто видео е с повече от 90% възможност да е генерирано от AI. YouTube спря канала, виновен за наличието в резултатите от търсенето, от своята стратегия за монетизиране, което значи, че към този момент не може да печели от своите видеоклипове.

Но каналите в YouTube, разчитащи на това, което наподобява най-малко частично генерирано от изкуствен интелект наличие, не престават единствено да бълват шокиращи, подправени разкази за Джейкс, Комбс и други. Някои видеоклипове имат реклами, което демонстрира, че те печелят доходи за своите основатели. Тъй като някои от видеоклиповете с подправени вести могат да генерират огромно гледане и ангажираност, те също по този начин се класират по-високо алгоритмично в резултатите от търсенето и предложеното наличие - логаритмите на YouTube и Гугъл също се ръководят от AI.

Видеоклип в YouTube, оповестен на 14 януари, озаглавен „ ИЗКЛЮЧИТЕЛНИ НОВИНИ: Диди е приет за ВИНОВЕН И АРЕСТУВАН по делото на Тупак! “ има над 100 000 гледания. Миниатюрата демонстрира Комбс с накриво от тъга лице до изображение на служител на реда, който го ескортира на разположение. Търсене в Гугъл за „ Диди задържан “ върна видеото като най-хубавия резултат.

Но Комбс не беше задържан на 14 януари. Той беше задържан през 2015 година — не за убийството на Тупак Шакур, а по съмнение за нахлуване със смъртоносно оръжие при случай в UCLA, откъдето е част от видеото в YouTube от 14 януари (прокурорите отхвърлиха да издигнат обвинявания по отношение на ареста от 2015 година, а юристът на Комбс разяснява по това време, че е „ признателен “, че обвиняванията не са били повдигнати).

Lyu също пусна видеото от 14 януари през същия модел за разкриване на AI. Моделът откри, че има над 98% възможност да е генериран от AI. Лю сподели, че моделът за разкриване на AI разпознава детайли, забележими в синтетичното аудио, които не участват в аудио от действителни гласове.

Reality Defender, платформа за разкриване на AI, която предлага на пазара своите модели за разкриване, също пусна миниизображението на видеоклипа от 14 януари и 28 секунди от аудиото му посредством стратегии за разкриване на AI и откри гласа и елементи от миниизображението е 99% евентуално да бъдат създадени с генеративни AI принадлежности. (Comcast, компанията-майка на NBCUniversal, е вложител в Reality Defender.)

Изпълнителният шеф на Reality Defender Бен Колман сподели, че стратегиите на компанията за разкриване на AI правят оценка пикселите в изображенията, с цел да намерят аномалии, които демонстрират AI употребявани са принадлежности. Използването на такива принадлежности може да докара до това изображението да наподобява прекомерно безпрепятствено, сподели Колман, когато би трябвало да има остри очертания към разнообразни обекти в действителна картина. Подобни манипулирани изображения бяха постижими преди AI с принадлежности за редактиране на фотоси, само че в този момент са автоматизирани благодарение на AI.

„ Това, което виждаме с генеративните принадлежности, е експоненциално нарастване на способността и лекост на операция “, сподели Колман.

Каналът в YouTube, който разгласява видеото, е деен единствено от година. Той е разгласил над 750 видеоклипа с над 20 милиона комбинирани гледания. YouTube не предприе дейности против канала, откакто NBC News го означи.

„ Те употребяват жаргона на културата, жаргона на културата, тъй като чернокожите хора се доверяват на черните медии “, Нванду споделих. „ Има дългогодишно съмнение към всеобщите медии във връзка с метода, по който се описват нашите истории. “

Фалшиво, манипулирано и генерирано от AI наличие се популяризира в YouTube от години, само че в последно време софтуерното развиване и ползата към различни източници на вести сътвориха възходящ тласък за произвеждане на такова наличие, което заплашва осведомителните екосистеми.

Два от 12-те канала, публикуващи нещо, което наподобява е генерирано от изкуствен интелект, подправени новинарски видеоклипове за чернокожи звезди, прегледани от NBC News, започнаха като канали за обзор на технологии, публикувайки видеоклипове, които наподобява не съдържат никакви Съдържание, генерирано от AI. След като разгласиха няколко видеоклипа, всеки от които получи под 1000 гледания, двата канала се насочиха към отразяване на непристойни, подправени истории за чернокожи звезди. Единият канал към този момент има над 20 милиона гледания, а другият има над 5 милиона. YouTube приключи един от тях.

Други два канала от 12-те, прегледани от NBC News, имаха имейл адреси, свързани с Crealon Entertainment, цифрова издателска компания, основана в Швеция, която ръководи голям брой други сметки в YouTube с работата на свободни специалности. Според страницата на Crealon в LinkedIn, той наема „ Rap Writer “ фрийлансър, основан в Съединени американски щати, и „ Video Editor for Rap обвързван YouTube Channel “ фрийлансър, основан в Индия. Crealon също по този начин наема дизайнери на миниатюри на свободна процедура и фрийлансъри за канали в YouTube, свързани с същински закононарушения. Компанията не отговори на искане за коментар. YouTube приключи и двата канала, маркирани от NBC News, които бяха свързани с Crealon, като добави, че те заобикалят предходно преустановяване на канал.

NBC News също разпознава пет канала в YouTube за черни вести и просвета, които са действителни хора, които се появяват във видеоклиповете, само че реагират на и събират информация от видеоклиповете с подправени вести.

Изследователят Джонатан Олбрайт откри десетки хиляди новинарски видеоклипове, генерирани от изкуствен интелект, в YouTube през 2017 година По това време такива видеоклипове нормално бяха къси и несложни и имаха относително малко привличане – дори най-гледаните видеоклипове, които Олбрайт гледаше, имаха под 10 000 гледания, а някои нямаха нула. Видеоклиповете ще включват изкуствено звучащ глас, който чете копие от новинарски публикации върху слайдшоу от фотоси, взети от цялата мрежа.

Оттогава някои от видеоклиповете се развиха и получиха милиони гледания. Преди делото против Комбс, някои от каналите, разпознати от NBC News, направиха десетки видеоклипове за процеса за клюка сред Джони Деп и Амбър Хърд през 2022 година, които използваха манипулирани медии и погрешна информация, с цел да показват Хърд в отрицателна светлина. Един подобен видеоклип, с миниатюра, показваща сътрудника на Хърд от „ Аквамен “ Джейсън Момоа до нея в правосъдната зала (той в никакъв случай не се появи по време на процеса), имаше единствено над 8 милиона гледания. Каналът, който го разгласява, от този момент се насочи към отразяване на чернокожи звезди.

„ Това, което ме вълнува, е, че не се прави доста, “ сподели Нванду. „ Много от тези страници могат да процъфтяват за дълъг интервал от време и да генерират солидни изгледи без каквато и да е събаряне. “